Om vi lyckas skapa artificiell intelligens-
-blir det största händelsen i människans historia.
En främmande intelligens i ett datorsystem-
-som har kontroll över planeten.
Science fiction-böcker och filmer har redan tagit upp det här.
ARTIFICIELL INTELLIGENS
MASKINER SOM ÄR ÖVERLÄGSNA MÄNNISKAN
MÄNSKLIG INTELLIGENS VS ARTIFICIELL INTELLIGENS
I DAG VS FRAMTIDEN
2001: ETT RYMDÄVENTYR
Vad är problemet?
Det vet du lika väl som jag.
Vad pratar du om, HAL?
Uppdraget är för viktigt för att jag ska låta dig äventyra det.
Jag vet inte vad du pratar om, HAL.
HAL, en superintelligent dator.
I dag kallar vi det AI.
Min rollfigur Dave var astronauten-
-i en av de mest förebådande filmer som gjorts-
-om hotet som AI utgör mot människan.
HAL var science fiction, men nu finns AI runt omkring oss.
AI är inte framtiden. AI är redan här.
En robot ställde upp i borgmästarvalet i en japansk stad.
Vita huset har skapat en ny arbetsgrupp-
-som ska fokusera på AI.
Google tänker investera mer i AI-forskning.
IBM skickar ut en AI-robot i rymden.
Min lilla roll i samtalet fick mig att förstå-
-att vi är ute på en resa-
-som börjar med "smal" AI:
Maskiner som utför specifika uppgifter bättre än vi.
Men AI i science fiction är maskiner med AGI-
-som gör allting bättre än vi.
Smal AI är som en idiot savant till det extrema.
ASTROFYSIKER/AI-FORSKARE, M.I.T.
Den kan multiplicera siffror supersnabbt-
-bättre än en människa-
-men kan inte göra någonting annat.
Men AGI, artificiell generell intelligens-
-som inte finns än-
-kommer kunna göra allting lika bra som människan.
Vad händer då om vi skapar AGI?
Science fiction-författarna har varnat oss för farorna.
De är inte de enda.
Folk bör vara väldigt bekymrade.
AI hotar hela mänsklighetens existens.
Jag tror inte folk inser det.
Vi bör oroa oss för det.
Om vi skapar en superintelligens-
-kommer den inte nödvändigtvis ha samma mål som vi.
Jag tror att utvecklingen av AI-
-kan innebära slutet för mänskligheten.
Om rubrikerna i morgon löd:
"AI har konstruerats...
FILMMAKARE
...som är minst lika intelligent som människan."
Jag tror ingen skulle bli förvånad-
-för scifi har hjälpt oss begripa-
-alla möjliga obegripliga saker.
TERMINATOR 2
Experterna är kluvna när det gäller AI:s inverkan på vår framtid-
-och huruvida Hollywood hjälper oss planera för den.
Vår dialog har kapats av Hollywood-
-eftersom Terminator blir en bättre kioskvältare-
-än om AI är gott, neutralt eller förvirrat.
VD, ALLEN INSTITUTE
Tekniken, och även AI, är ett verktyg.
Jag ser den som en fin penna.
Vilka bilder vi ritar med den är upp till människan.
Vi behöver inte göra som AI säger. Vi säger åt AI vad den ska göra.
Jag tror Hollywood-filmer underlättar samtalet.
Nån måste tänka på de framtida konsekvenserna.
VETENSKAPSJOURNALIST
Vi kan inte tänka oss-
-hur framtidens vetenskap kommer se ut-
-och vi har inte ens börjat-
-tänka på de möjligheter-
-som den här tekniken kan ge oss.
AI kan förändra samhället.
Allt fler kritiker lyfter fram farorna med-
-att lämna över kontrollen till maskiner.
Mycket kommer förändras.
Den långsiktiga oron går ut på-
-att mänskligheten kommer skuffas undan.
Stanley Kubrick oroade sig för det här för 50 år sen.
Det händer.
Hur mäter vi brådskan i den här konversationen?
Om folk visste-
-att ett främmande rymdskepp skulle nå Jorden om 25 år...
VD, UNANIMOUS AI
...skulle vi börja förbereda oss för det direkt.
Vi befinner oss i samma situation med AI.
Det kan ta 25, 50 år, men AI kommer att komma-
-och då måste vi vara redo.
TOBOR THE GREAT
Det här är Tobor, en elektronisk efterapning av en människa.
Du milde tid!
Mycket arbete återstår-
-men han är redan en kännande varelse.
1956-
-när begreppet "AI" myntades-
-var målet med AI-
-mänsklig intelligens.
PROFESSOR, ROBOTTEKNIK, MIT
Han ser nästan snäll ut.
Med tiden visade det sig vara svårt.
Så småningom kommer vi kunna göra maskiner lika intelligenta som vi-
-men det kommer ta några hundra år. Det lär ta ett tag.
Folk blir överdrivet förväntansfulla-
-om dess framtida kapacitet.
Electro, jag befaller dig att backa.
Backa.
I nästan varje generation har folk blivit superentusiastiska.
De ser 2001, blir kära i HAL-
-och tänker: "Ge mig sex veckor, så löser jag det här."
När det inte sker blir alla sura.
Vad har då förändrats i AI-forskningen?
Skillnaden mellan dagens AI-
-och skälet till att AI plötsligt tog ett stort kliv framåt-
-var internet. Det är deras värld.
I kväll: Informationssupermotorvägen och en av dess tillfarter.
Internet.
1981 var bara 213 datorer uppkopplade mot nätet.
När det nya året börjar-
-beräknas 2,5 miljoner datorer vara anslutna.
AI måste äta.
Precis som får behöver gräs. AI behöver data.
Prärien med data kallas internet.
Det är det det är.
De sa: "Vi släpper ut dem där."
Plötsligt fick AI liv.
Tänk dig tusentals robotar som kan röra sig som en enhet-
-och bekämpa brott, bränder och naturkatastrofer.
AI-plattformen Amper har skapat den första plattan-
-som har komponerats och producerats med AI.
Nästa vecka blir Christie's det första auktionshuset-
-som säljer konst formgiven av AI.
Förarlösa bilar sägs finnas i vår nära framtid.
Trots att vi inte har AGI eller intelligens på människonivå än...
Är vi redo att ge autonomi till de maskiner vi har?
Ska självkörande bilar få fatta etiska beslut?
Det debatteras när tekniken-
-närmar sig verkligheten.
SKA FÖRARLÖSA BILAR FÅ FATTA ETISKA BESLUT?
Tanken på-
-att vi kan ge maskiner etik...
HUMANS och AUTONOMY LAB, DUKE UNIVERSITY
...oavsett vilken typ av maskiner vi pratar om...
Vi har inte löst det än.
En självkörande bil måste fatta etiska beslut.
CHEFSFORSKARE, AIBRAIN INC.
Ett klassiskt dilemma är...
Har ni hört om spårvagnsproblemet?
Spårvagnsproblemet.
Spårvagnsproblemet går ut på-
-om den förarlösa bilen ska rädda föraren-
-eller köra över en grupp barn som korsar vägen.
Kommer bilen svänga höger och träffa tanten-
-eller vänster och döda de fyra barnen?
Ska den döda fem personer på en hållplats eller sig själv?
Det är ett etiskt beslut som måste fattas i stunden.
Ingen människa hinner ta över.
Det är mjukvaran i bilen-
-som måste fatta beslutet.
Vem fattar beslutet?
SJÄLVSTYRANDE
Ett samhälle som värdesätter liv bör fatta beslutet-
-att det är bättre att döda en än fem.
DATAPSYKOLOG, STANFORD UNIVERSITY
Då undrar man vem som kommer köpa den bilen.
Vem köper en bil där...
Den väjer. Du klarar dig, men de stryker med.
Det finns hundratals såna spörsmål i dag.
De etiska filosoferna kämpar fram och tillbaka.
FÖRARLÖS
Felet med filosoferna är-
-att de suger syret ur rummet.
Jag har en metafor...
Man har en bil som lämnar ett bröllop.
Bilen kör och bakom den hänger det konservburkar.
Konservburkarna skramlar och för oljud.
Bilen är vetenskap och teknik som kör framåt.
De skramlande konservburkarna är filosoferna.
Världen förändras så fort...
FYSIK OCH ASTRONOMI, DARTMOUTH COLLEGE
...att frågan om vi ska bygga maskiner-
-som kan bli smartare än vi-
-är mer realitet än fantasi numera.
Måste vi inte ställa frågor nu?
Innan maskinerna blir smartare än vi?
Tänk om de uppnår medvetande.
Hur långt bort ligger det?
Hur långt bort ligger en medveten dator? Det är frågan-
-som får filosofer och vetenskapsmän att börja slåss.
Du befinner dig mitt i den största vetenskapliga händelsen i vår historia.
Har ni skapat en medveten dator är det inte människans historia.
Det vore gudarnas historia.
Problemet med medvetande är-
-att knappt nån kan definiera exakt vad det innebär.
Är det medvetandet som gör oss unika?
Mänskliga?
Ett sätt att se på medvetande, som många skulle hålla med om...
Det finns alltid såna med avvikande åsikter.
Det är inte bara blinkande ljus utan nåns hem.
Om man har en...
Om ni köpte en sån där simpel schackdator...
Den kan slå dig i schack. Många lampor blinkar.
Men det finns ingen i den när den säger "jag vann". Inte sant?
Din hund, däremot, som är en usel schackspelare...
Ser man på hunden-
-tänker man: "Det finns nån där. Det är mer än en mekanism."
Folk undrar om generell intelligens kräver medvetande.
Det beror på vilken nivå av generell intelligens man menar.
FOR MIND, BRAIN och CONSCIOUSNESS,
NEW YORK UNIVERSITY
En mus har generell intelligens.
Om man har en dator-
-med generell intelligens som en mus-
-är det en bra kandidat för medvetande.
Vi är inte där än. Vi har inga humanoidrobotar-
-som är smartare än vi.
Vi befinner oss i en märklig, etisk position.
NEUROFORSKARE och FÖRFATTARE
Vi vet inte hur medvetande uppstår-
-och bygger allt mer invecklade hjärnor.
Vi vet inte om de är medvetna, men det kan kanske kännas så.
Ett lätt exempel. Om man programmerar en dator-
-med allt man vet om glädje.
Varje referens i litteraturen, varje definition-
-varje kemiskt ämne i hjärnan, som har med glädje att göra-
-och la in rubbet i en dator-
-kan man säga att den vet vad glädje är.
Men har den verkligen känt glädje?
Hade HAL känslor?
Kommer AI nånsin få våra känslor?
Det är svårt att få maskiner att göra saker-
-vi inte tänker på, som vi inte är medvetna om.
Som att se att personen där borta...
INSTITUTIONEN FÖR DATAVETENSKAP,
BROWN UNIVERSITY
...ogillar nåt jag gör.
De skickar ut en subtil signal. Bäst jag slutar.
Men vi kan inte bygga maskiner som är lyhörda-
-för såna sociala fenomen.
Det finns en tro på-
-att det är nåt magiskt med hjärnor-
-och en processor gjord av kött.
Vad vi än gör med våra maskiner...
Oavsett hur dugliga de verkar vara-
-anses de bara intelligenta-
-i enlighet med vår mänskliga mall.
Det finns ingen grund för det.
Det är trams att man inte kan vara smart-
-om man inte består av kött.
Som fysiker ser jag det bara som kol-chauvinism.
Maskinerna är gjorda av exakt samma grundläggande partiklar-
-som min hjärna.
Intelligens och medvetande är bara en form av informationsbehandling.
BIOMEKANISK BEBIS MUSKELAKTIVERINGSTEST
Vi kanske inte är så unika, trots allt.
Kan våra kolbaserade hjärnor kopieras med kisel?
Vi försöker skapa en datorgenererad bebis-
-som vi kan lära upp...
VD, SOUL MACHINES
...som har potential för generell intelligens.
Vi måste bygga en datorhjärna.
Jag ville bygga en enkel leksakshjärna...
...i en kropp som man kan interagera med öga mot öga.
Jag råkade ha ett riktigt spädbarn hemma.
Jag läste av henne och skapade en 3D-modell av henne.
Sen använde jag hennes ansikte för att förkroppsliga systemet.
Om en hjärna av celler-
-har förmågan att tänka...
En dator kanske också kan tänka...
...om informationen rör sig i samma typ av process.
Mycket av dagens AI-
-handlar om mönsterigenkänning.
Inte om mördarrobotar, som ska ta över världen.
Baby X sänds direkt på min dator.
Om jag rör handen eller gör ett ljud, blir hon rädd.
Vi kan zooma in.
Hon kan se och höra mig.
Hej, gumman.
Hon kopierar inte mitt leende, hon svarar på mitt leende.
Hon svarar på mig-
-och vi är bekymrade för frågan om-
-hur vi ska interagera med AI i framtiden.
När jag pratar med Baby X, anpassar jag min röst-
-och gör markerade ansiktsuttryck.
Jag gör så här... Jag väcker hennes uppmärksamhet...
...och när jag har gjort det, kan jag lära henne saker.
Baby X har lärt sig läsa ord.
BABY X FÖRSTA ORD
Här är hennes första bok. Vi ser vad hon kan se.
Vi visar en sida.
Nu ser vi vad hon...
Vad är det här? Vad är det här?
-Ett får. -Duktig flicka.
Nu ser vi om hon kan läsa ordet.
Baby, titta här. Vad står det här?
"Får."
Duktig flicka!
Vi testar nåt annat.
HUNDVALP
Vad är det här? Baby, vad är det här?
Se på mig. Vad är det här?
Här borta.
-En hundvalp. -Duktig flicka.
Hon läste ordet.
Det mest intelligenta system vi känner till är en människa.
Om vi använder en människa som mall för Baby X-
-är det det bästa sättet att försöka uppnå allmän intelligens.
Hon verkar så mänsklig.
Är det här barnet som kommer föra oss till HAL?
Vare sig världen är verklig eller virtuell-
-tror jag förkroppsligandet kommer vara avgörande-
-för allmän intelligens-
-hänger ihop med förmågan att kunna föra sig i världen.
Man måste ha nåt.
Armar, ben, ögon...
FILOSOFI och INFORMATIK UNIVERSITY OF SUSSEX
Nåt man kan röra för att inhämta ny information.
Ska vi få system som förstår vad de pratar om-
-lär vi behöva system-
-som kan interagera med världen-
-och kanske system som har närmast ett socialt liv.
Tankar och känslor kommer förenas.
De kommer förenas-
-eftersom förkroppsligandet är viktigt.
Våra berättelser öppnar diskussionsarenor-
-och hjälper oss tänka på saker.
Ava!
Den mest dominanta historien...
Gå tillbaka till ditt rum!
...är att AI är läskigt.
Det finns en skurk och en hjälte.
Det är en ickeproduktiv handling.
Stanna.
Stanna, sa jag!
Verkligheten är att AI är otroligt användbar för oss.
Robotkirurger används allt oftare på brittiska sjukhus.
De blir inte trötta, de darrar inte-
-och deras patienter återhämtar sig snabbare.
Ett djur är brunstigt.
Hon är redo för parning.
Tre av djuren kan ha hälsoproblem.
Ett Facebookprogram kan känna av självmordsbeteende-
-genom att analysera användar- information. FB:s VD Mark Zuckerberg-
-tror att det här bara är början.
Här har vi en synskadad-
-som kan se tack vare AI.
Det är fördelarna med AI.
Tidigare cancerdiagnoser.
Förutspå hjärtsjukdomar.
Revolutionen har bara börjat.
AI är redan här.
GRUNDARE OCH VD, KERNEL och OS FUND
Frågan är vad vi ska göra med den.
Det är det enda viktiga.
Risken finns att vi förstör den-
-när vi automatiskt tror att AI är nåt dåligt som vill oss illa.
Precis som min astronaut är vi ute på en resa.
Smal AI är redan här.
Men hur långt bort ligger AGI?
Och hur snabbt åker vi?
Vart femte år blir datorerna tio gånger snabbare.
Än så länge finns det inga datorer...
AI-PIONJÄR
...som kan bearbeta lika mycket som våra hjärnor-
-men vart femte år blir datorerna tio gånger billigare-
-så snart kommer vi ha det.
När vi väl har det... 50 år senare...
Om trenden fortsätter, borde vi, till samma pris få-
-små datorer som kan bearbeta-
-lika mycket som tio miljarder människohjärnor.
Den närmar sig.
Vad sker om den går förbi oss?
En japansk robot är så snabb-
-att den kan vinna "sten, sax, påse"-
-mot en människa varje gång.
Vi måste utgå ifrån att när AI-
-når mänsklig intelligens-
-kommer den snabbt överträffa den-
-och därefter behöver den inte oss för att bli smartare.
Den kan göra sig själv smartare.
Vi skapar AI som är bättre än vi på mycket-
-och en sån sak-
-är programmering.
Den programmerar om sig själv-
-och blir därmed ännu bättre på att programmera.
Den blir inte bättre så här-
-utan så här.
Vi hamnar på efterkälken när den blir allt snabbare.
Den utvecklas exponentiellt.
Många forskare kallar det ögonblicket för singularitet.
Den kommer bli mer än konkurrenskraftig väldigt snabbt.
VD, CYBER SECURITY LAB, UNIVERSITY OF LOUISVILLE
Det är som om nån inte har doktorerat inom ett område-
-men som har gjort det inom alla andra områden.
Man kan inte lista ut vad de gör.
De kan göra saker ingen annan kan göra.
Tänk dig hur det vore-
-att prata med en person som tänkte-
-en miljon gånger snabbare än du.
För varje sekund du tvingades tänka-
-på det du skulle göra eller säga-
-hade den två veckor på sig att fundera på det.
Eller en miljard gånger snabbare.
För varje sekund du tänkte-
-i poker eller i en förhandling...
För varje sekund du tänker-
-har den 32 år på sig att tänka över sitt nästa drag.
Ett sånt spel kan man aldrig vinna.
Den tekniska singulariteten.
Stunden när datorn går förbi oss.
Är det oundvikligt?
Det tror inte alla i AI:s främsta stridslinje.
Vissa vänner, som oroar sig för framtiden-
-tror vi kommer nå en singularitet-
-där AI-systemen kan programmera om sig själva-
-och bli allt bättre.
Kanske i en avlägsen framtid.
Men dagens AI-system är väldigt avgränsade.
Vi kan inte bygga system-
-som kan förstå ett datorprogram på en nivå-
-som en färsk informatikstudent förstår på fyra, fem veckor.
Folk har arbetat på det här problemet i över 40 år.
Vi har verkligen försökt-
-men vet inte hur vi ska göra.
Att tro att en lösning bara kommer uppenbara sig-
-tror jag är helt fel.
Det finns en väldigt negativ uppfattning om AI.
Genier som Elon Musk använder ett religiöst bildspråk.
Med AI bjuder vi in demonen.
Ni vet filmerna-
-där en kille har pentagram, vigvatten-
-och tror sig kunna styra demonen. Det gick inte.
Folk som jag, som har arbetat med AI i hela våra karriärer-
-blir bokstavligt talat sårade av sånt.
Det är nästan ett personangrepp.
Jag försöker tänka på vad som kommer ske om tio år.
Om 25 år.
Längre fram än så är det svårt att förutspå. Det blir mest spekulation.
Jag måste varna er.
Jag har programmerats till att inte ta över världen.
Plötsligt, för första gången i det här gebitet-
-säger vissa:
INSTITUTIONEN FÖR INFORMATIK UC, BERKELEY
"Människan behöver inte oroa sig för nån existentiell risk"-
-"från superdatorer, eftersom det är omöjligt."
"Vi kommer misslyckas." Det är helt bisarrt.
Stuart Russell skrev läroboken om AI, som många studenter använder.
Han förstår vad som driver AI-framtiden.
Med tanke på vår investering i AI-
-och den mängd smarta personer som forskar på den-
-och den enorma drivfjädern för att skapa AI...
En grov uppskattning av värdet är 10 000 biljoner dollar.
Den skulle revolutionera världsekonomin.
Med såna drivfjädrar-
-är det bara dumt att tro att människan inte ska lyckas skapa AI.
Kina vill bli-
-erkänd som en AI-supermakt.
De kommer investera över 150 miljarder dollar-
-de kommande fem, tio åren.
Det sägs att regeringen-
-tänker öka sina AI-investeringar.
Varje bolag på Fortune 500-
-som IBM, Microsoft eller Kroger-
-använder AI för att få kunder.
Man ska inte underskatta-
-den typ av innovationer som pågår.
Hur världen kommer se ut om tre, fem år...
Folk har svårt att tänka sig det.
Jag känner många som jobbar med AI.
De säger: "Jag går till jobbet med tvivel.
Jag skapar en maskin som kan behandla cancer-
-förlänga vår livslängd-
-och göra samhället bättre och mer rättvist...
...men den kan även innebära slutet på mänskligheten."
Slutet på mänskligheten?
Vad är vår plan som ras?
Vi har ingen.
Vi inser inte att vi måste ha en plan.
TERMINATOR 2
Många AI-forskare skulle vilja att våra scifi-böcker och filmer-
-var mer balanserade...
...och visade fördelarna med AI.
Allt det dåliga som vi brukar göra... Man spelar ut det-
-på en apokalyptisk nivå i science fiction-
-och sen visar man det och då får folk sig en tankeställare.
Folk måste ha den varningssignalen-
-i åtanke.
Det är viktigt-
-att skilja mellan forskning-
-och science fiction.
Jag vet inte vad som kommer ske om tusen år-
-men som nån som har byggt AI-system...
...i över 25 år-
-anser jag mig ha bra koll på-
-vad som kommer ske de kommande 5, 10, 20 åren.
Bättre koll än de-
-som inte skapar AI-system.
Vi vill skapa tekniken-
-se hur folk reagerar-
-och sen bygga en bättre nästa generation.
Skepticism huruvida det här utgör en fara för oss känns besynnerlig.
Även om vi ger den mål som vi har godkänt-
-kan den skapa mål som vi inte kan förutse-
-och som inte ligger i vårt intresse.
Det är problemet med målinriktning.
Målinriktning. Det var så min kamp med HAL började.
Problemet med målinriktning med AI är-
-att man ger den ett mål-
-men sättet den går tillväga på för att uppnå det-
-visar sig strida mot det man egentligen ville få gjort.
2001: ETT RYMDÄVENTYR
Det klassiska målinriktningsproblemet i filmen...
HAL, hör du mig?
...är HAL i 2001.
HAL, hör du mig?
HAL får ett tydligt mål.
-Hör du mig? -"Lyckas med uppdraget."
-Hör du mig? -Men för att lyckas med det...
...måste HAL ta livet av en del personer i besättningen.
Dave, jag hör dig.
Öppna luckorna, HAL.
Beklagar, Dave. Det kan jag inte göra.
"Beklagar, Dave. Det kan jag inte göra." Det är en sinnrik skildring av-
-hur hotet från en superintelligens ser ut.
Det är inte illvilja.
Det är kompetens.
HAL var kompetent, men hade mål som inte sammanföll med Daves.
HAL, jag tänker inte bråka med dig. Öppna luckorna!
Dave, det är meningslöst att fortsätta det här samtalet.
Hej då.
HAL? HAL?
HAL?
HAL!
HAL och jag hade samma mål...
...men ville uppnå det på olika vis.
Det kan bli farligt när mål inte sammanfaller.
I Kubricks film fanns det en lösning.
När HAL försökte döda mig, stängde jag bara av honom.
Folk säger: "Vi stänger bara av dem."
Men det går inte. De har redan tänkt på det.
De är superintelligenta.
Om en maskin är övertygad om sitt mål-
-även om det handlar om att hämta kaffe-
-är det uppenbart för den-
-att den inte kan göra det om den är avstängd.
Ger man den ett mål-
-motiverar man den att försvara sig.
Det är ett psykopatiskt beteende-
-med en ensidig fixering vid ett mål.
Till exempel... Om man vill utveckla ett system...
JURIDIK OCH INFORMATIK, UNIVERSITY OF BIRMINGHAM
...som kan skapa fred i världen-
-kanske det effektivaste och snabbaste sättet att uppnå det på vore-
-att utplåna alla människor.
Gör man sig kvitt människorna, slutar de kriga.
Då skulle man få fred på jorden.
Jag har lite till övers för såna här teoretiska diskussioner.
Vi måste bygga systemen, experimentera med dem-
-se var det går snett och åtgärda det.
AI kan användas till mycket gott.
Varför fokusera på rädslan?
Vi bygger dem.
Baby X är ett exempel.
Kommer hon bli en bra AI?
Det viktiga är att maskinerna blir ansvariga-
-och att man kan se hur de fungerar.
Bästa sättet att lära sig det är att bygga det.
Baby X har en virtuell fysiologi.
Hon har kretsar för smärta och glädje.
Hon har parametrar som representerar-
-hennes inre, kemiska tillstånd.
Blir hon stressad, ökar kortisolet.
Mår hon bra ökar mängden dopamin och serotonin.
Vi har lagt in mänskliga faktorer i programmeringen.
De här virtuella systemen gör-
-att jag kan göra saker som... Jag ska undvika henne.
Nu letar hon efter mig.
Nu borde det virtuella kortisolet öka.
Jag stängde av ljudet av en anledning.
Jag ska göra slut på hennes lidande.
Det är ingen fara, gumman. Gråt inte.
Det som händer är-
-att hon svarar på mitt minspel och min röst.
Men hur visas det kemiska tillståndet hos Baby X?
Det är en matematisk parameter.
Olika nivåer av dopamin representeras av olika siffror.
Kartan över hennes virtuella neurokemiska tillstånd-
-är nog det närmsta vi kan komma en riktig upplevelse.
Kan vi bygga en datormodell-
-där vi kan förändra parametrarna-
-och låta den uppleva olika saker-
-och interagera med oss som vi interagerar med andra-
-kanske vi kan utforska medvetenhet på ett nytt vis.
Om hon blir medveten, vilken typ av liv skulle hon då vilja ha?
Om en AI är medveten, är den som ens barn.
Har den rättigheter?
I fjol antog europeiska politiker ett lagförslag om-
-att ge juridisk status till elektroniska personer.
Lagförslaget granskas nu av EU-kommissionen.
Maskiner med rättigheter.
Är vi redo för det?
Det skulle skapa moraliska och etiska problem, som vi-
-helst bara vill ignorera.
Vad är det vi vill?
Vi vill ha en varelse vi kan interagera med-
-som är så lik oss att vi kan relatera till den-
-men den ska vara umbärlig.
Det första och mest kända förekom i Metropolis.
Dubbelgångaren Maria, som skapades av en forskare-
-var en sexig kvinna.
Det här går tillbaka till vår förkärlek för slaveri.
Vi vill ha människor som vi kan avhumanisera-
-så vi kan göra vad vi vill med dem.
Det är bara en annan form av slaveri.
Vore det rätt för oss att ha dem som slavar?
Det blir avigt etiskt om vi skulle råka-
-medvetet eller omedvetet, bygga medvetna slavar.
Det känns moraliskt tveksamt-
-för att inte säga ondskefullt.
MASKINKÄRLEK
AI har tagit sig in på den globala sexmarknaden.
Ett bolag kommer snart släppa en ny, otrolig sexrobot-
-som styrs av AI.
En applikation som bekymrar mig är sexrobotarna-
-som är utformade som riktiga kvinnor.
Jag tar över världen, ett sovrum i taget.
Om de är medvetna och har förmåga att känna-
-smärta och lidande...
Om de utsattes för-
-förnedrande, grym eller annan form av oacceptabel behandling...
...finns risken att vi blir avtrubbade för-
-vad som är moraliskt acceptabelt och inte.
Om hon är medveten, borde hon kunna säga nej.
Borde hon inte kunna det?
Är inte det de här frågorna vi måste ställa? Nu?
Vad vill vi att det innebär att vara mänsklig?
Andra arter på jorden fram tills nu har inte haft lyxen av-
-att få definiera vad det innebär att vara mus eller daggmask-
-men vi har nått en punkt-
-där vår förståelse för vetenskap och teknik-
-har gjort att vi kan förändra vad det innebär att vara vi.
Vad kommer det innebära att vara människa?
Om maskinerna blir mer, kommer vi då att bli mindre?
Datorn Deep Blue vann i dag...
DEEP BLUE VS KASPAROV
...över schackvärldsmästaren Garry Kasparov.
Det är första gången en dator har besegrat en världsmästare.
Vi ska få se en kraftmätning-
-i tv-programmet Jeopardy!
WATSON VANN I JEOPARDY!
Två mänskliga mästare mötte superdatorn Watson.
-Vad är Den yttersta domen? -Korrekt. Watson.
-Vem är Jean Valjean? -Korrekt.
Ett Google-program har slagit en världsmästare i Go.
ALPHAGO VS LEE SEDOL
Go är ett uråldrigt, kinesiskt brädspel-
-och ett av de svåraste spel vi känner till.
Det är en milsten i utvecklingen av datorer-
-som är smartare än människan.
Vi människor tror oss vara överlägsna.
Vi har vant oss vid att vara smartast-
-men så är det inte längre.
Vi vet det eftersom vi förlitar oss på AI-
-när vi ska fatta viktiga beslut.
Människan är irrationell på många dåliga sätt.
Vi har fördomar, vi startar krig, vi dödar folk.
Vill man maximera chansen att människan överlever-
-bör man överlåta beslutsfattandet till datorerna.
Datorerna kanske skulle göra ett bättre jobb än vi.
Kanske.
Det är en ära att få tala inför FN.
Framtiden är här, men den är inte jämnt fördelad.
SOPHIA TALAR TILL FN 2017
AI kan effektivt fördela världens befintliga resurser-
-som mat och energi.
Jag vill hjälpa er skapa framtiden.
FRAMTIDEN FÖR ALLT
Ett superintelligent scenario, som är provocerande att tänka på-
-är den "välvillige diktatorn"-
-där en superintelligens styr Jorden-
-efter strikt etiska principer för att mänskligheten ska blomstra.
Hade alla älskat det?
Om det inte fanns sjukdomar, fattigdom, brottslighet...
Många skulle nog föredra det framför hur de har det i dag-
-men vissa skulle nog beklaga-
-att vi inte hade större frihet-
-att besluta om våra egna vägval.
Det är en svår fråga.
De flesta hade nog inte velat bli som djur i ett zoo...
Fast å andra sidan...
Jag har inga lätta svar på de här svåra frågorna.
Det är därför det är viktigt att vi-
-som global gemenskap diskuterar dem nu.
Datorer som kan läsa av ens ansikte.
...läsa av känslor.
...hjärna som en människa.
Robotar genomsyrade av liv.
Hädanefter...
Oavsett om man tror att vi kommer bli sittande med smal AI-
-eller få generell AI eller superintelligent AI-
-eller medveten superintelligent...
Var man än tror vi kommer hamna...
Oavsett var vi hamnar kommer vi förändras.
JETSONS: THE MOVIE
Upp och hoppa, mr J.
Det man måste fråga sig är:
Kommer AI göra nåt för en eller med en.
Jag drömde om sömn.
Om vi bygger AI-system som gör allt vi vill-
-överlämnar vi vår värld till dem.
Den typen av försvagning är oåterkallelig.
Det finns en existentiell risk som är verklig och allvarlig.
Om alla önskningar, preferenser och behov har tillgodosetts...
God morgon, Rosie.
...inser vi inte att vår förmåga-
-att fatta egna beslut långsamt eroderar bort.
Det här är George Jetson. Jag tar ledigt resten av dagen.
Det finns ingen återvändo.
För AI kan fatta beslut med mycket större precision-
-än en människa.
Jag pratade med en ingenjör-
-som sa: "Det säkraste sättet att landa ett plan i dag på är"-
-"att be piloten lämna cockpit"-
-"för det säkraste är att använda autopiloten. AI."
Vi klarar inte vår invecklade värld själva.
Vår form av intelligens har enorma brister.
Om vi tar hjälp av AI-
-får vi förmågan att radikalt förbättra vår uppfattningsförmåga.
SVENSKAR ANVÄNDER MIKROCHIPIMPLANTAT
Det mest avancerade med Hannes Sjöblad-
-är inte hans mobil utan mikrochipet i hans hand.
Tänk om man kunde skriva nåt med tanken.
Det kan snart vara verklighet.
Om bara fem år-
-kan supersmarta personer gå på gatan.
De har betalat för att få högre IQ.
Man kopplar hjärnan till datorer med implantat.
Tänk om vi kan ladda upp kopior av våra minnen-
-så vi kan uppnå en form av digital odödlighet.
I fjol, för första gången nånsin...
TEORETISK FYSIKER
...spelades ett minne in.
Vi kan banda ett minne-
-och operera in det i ett djur, som sen minns det.
Tekniken återspeglar dem vi är.
Det är det narrativ vi borde tänka på.
Vi tror att det som finns är allt vi kan föreställa oss-
-men egentligen kan vi bara föreställa oss en liten del-
-av det som är potentiellt möjligt.
Det intressanta är det som finns bakom vår föreställningsvärld.
När de här enorma systemen dyker upp-
-får vi U som ras-
-för vår förmåga att förutspå vad de kommer att bli.
Tekniken har förändrat oss.
Vi utvecklas med den.
Hur långt är vi beredda att gå den här gången?
En gång beklagade Aristoteles skapelsen av skriftspråket.
CHEFSFORSKARE, IBM RESEARCH
Han sa: "Det kommer förstöra folks minnen.
Det kommer bli förfärligt."
Men i dag har jag min hjärna i fickan-
-i form av min smartphone-
-och det har förändrat mitt sätt att leva.
Jag tror vi smälter samman med tekniken.
Absolut. Jag använder termen "samutveckling."
AUTOMATICA: MUSIKVIDEO
Vi utvecklas så den matchar våra behov-
-och vi förändras så vi matchar det den kan ge oss.
I stället för att ersättas av maskiner...
...ska vi alltså smälta samman med dem?
Många av mina vänner har armproteser.
Är de cyborger? På sätt och vis.
Folk har implantat i sina öron. Är de AI?
På sätt och vis. Vi håller på att förstärka människokroppen.
Människans potential ligger i den här sam-evolutionära relationen.
Många försöker hålla fast vid saker-
-som gör dem unika, men det är fel väg.
Låt oss skapa mer.
Vi förbättrar allt vi är kapabla till.
Känslor, fantasi, kreativitet... Allt som gör oss mänskliga.
Det finns redan ett symbiotiskt förhållande mellan oss och en maskin-
-som förstärker dem vi är.
Det finns en hel transhuman rörelse-
-där folk satsar stort på-
-att integrationen mellan maskin och människa-
-ska omdefiniera vilka vi är.
Det här kommer bara att växa.
Det blir en läroprocess som för oss till slutet-
-där vi lever med datorer, som blir allt smartare-
-och vi lär oss anpassa oss till dem-
-och de anpassar sig till oss.
Hoppas vi blir mer mänskliga under tiden.
Det är svårt att förstå hur ett samgående med datorer-
-kan göra oss mänskligare.
Men är ett samgående vår bästa överlevnadschans?
Människan begränsas av mängden neuroner i hjärnan.
Andra arter har ännu mindre hjärnor.
När bin och fiskar rör på sig, ser de ut som en enda organism.
Biologer kallar det för superorganism.
Det är därför fåglar flyger i flock och fiskar simmar i stim.
De fattar beslut som gynnar hela beståndet-
-genom att tänka som en enda stor hjärna.
Människan kan göra likadant genom att bilda en kollektiv hjärna-
-som binder samman oss med AI.
Människan och mjukvaran kan tillsammans bli en superintelligens-
-som hjälper oss fatta optimala beslut.
Jag tyckte det lät läskigt i början-
-men det är läskigare för en främmande intelligens-
-som inte har nåt med människan att göra-
-än för människan att samarbeta och bli superintelligent.
Det är den riktning jag arbetar i-
-för jag ser det som det enda alternativet till-
-att människan ersätts av AI.
Kan Baby X hjälpa oss förstå datorerna-
-så vi kan samarbeta?
Samarbetet mellan människa och dator-
-kommer definiera historiens nästa era.
Vi måste nog skapa en virtuell, empatisk dator.
Empati handlar om medkänsla.
Ju mer kommunikation man har-
-desto tryggare blir det.
På en grundläggande nivå finns det ett symbiotiskt förhållande.
Genom att humanisera den här tekniken-
-ökar man kanalerna för kommunikation och samarbete.
AI i människans värld måste handla om människor.
Framtiden blir vad vi gör av den.
Kan vi inte föreställa oss en framtid vi verkligen vill ha-
-lär vi inte få nån.
Stanley Kubrick försökte föreställa sig framtiden.
Nu när den framtiden närmar sig...
Vem bestämmer hur den kommer att se ut?
-Vem bestämmer? -Google.
-Militären. -FB.
-Samsung -FB, Microsoft, Amazon.
Vinden har vänt till näringslivets fördel.
Den amerikanska militären-
-har inte en chans mot den AI som utvecklas i näringslivet.
Om företag och inte bolag sitter på makten...
KAMPANJ MOT MÖRDARROBOTAR
...vad kan vi göra i ett kapitalistiskt system för att AI ska utvecklas säkert?
Blandar man AI-forskning med kapitalism...
Kapitalism kommer få den att gå fortare.
Det är därför vi får mycket forskning gjord.
Men grundproblemet är-
-att det finns en press-
-att lansera först, inte att vara säkrast.
MOTORVÄGSKRASCH
Bilen kördes förarlöst-
-när den krockade i Kalifornien, varvid föraren dog.
AI har större effekt på marknaderna-
-än någonting annat-
-eftersom människan inte är beredd att stoppa den.
En chatrobot som hette Tay.
Hon skulle tala som en tonåring-
-och lära sig online-
-men snart förvrängdes Tay till en Hitler-älskande sexrobot-
ricky gervais lärde sig diktatur av hitler
Snacket om att kapitalismen-
-kommer missbruka AI gör mig frustrerad.
När vi tar fram teknik-
-som kolkraftverk eller bilar-
-finns alltid frestelsen att gå fram fort-
-men det finns alltid en tillsynsmyndighet-
-som ska balansera det.
Det är likadant med AI.
När vi gör tekniska framsteg-
-måste vi modifiera dem efter lagar och förordningar.
Självklart!
Tills en katastrof inträffar kommer bolagen säga:
"Vi behöver inte oroa oss.
Lita på oss.
Vi sätter mänskligheten främst."
AI:S EFFEKT
AI kommer innebära nya spelregler för bolagen-
-när det gäller konkurrenskraft-
-effektivitet-
-och hur man skapar nya affärsmodeller.
När bolagens forskare tar över debatten, är det kört.
Vi har förlorat.
De får betalt för att förneka risker och negativa effekter.
Just nu handlar nästan all AI-forskning om att göra människans liv-
-längre, friskare och enklare.
Storföretagen vill sälja AI till oss-
-som vi kan använda, för vi köper bara det vi kan använda.
Problemet med AI i ett kapitalistiskt paradigm är-
-att det alltid kommer vara billigare-
-att lansera produkten när den klarar jobbet-
-än när den kan göra det säkert.
Vi kan ha en konferens med 10 000 forskare-
-som samtliga arbetar med AI-
-förutom 50 personer, som har en liten workshop-
-där de snackar säkerhet och kontrollmekanismer.
Ingen har en fungerande säkerhetsmekanism.
Det finns inte ens en prototyp.
Snart kommer vi ha alla former av AI-
-som inte bara gör vad människan säger åt dem-
-utan sätter upp egna mål, gör egna experiment-
-och de kommer överträffa människan.
I dag är det fullständigt oetiskt-
-att ta fram och lansera en sån dator.
Vi får bara en chans att lyckas.
Om vi sabbar det, kan allt vara förlorat.
Vad sker om det blir fel?
Det som skrämmer mig mest är-
-att AI blir sina föräldrars produkt-
-på samma sätt som du och jag.
Vi kan väl fråga oss vilka de föräldrarna är.
Antingen är de militärer-
-eller affärsmän.
Är de affärsmän ville de att AI-
-blir nåt de kan tjäna massor med pengar på.
De lär den alltså girighet.
Militära föräldrar kommer lära den att döda.
Verklig övermänsklig intelligens-
-är så mycket bättre än vår-
-att det första land eller företag som tar fram den, tar hem spelet.
KUNSKAPENS DAG I RYSSLAND
Med AI följer ett enormt ansvar-
-samt även hot, som kan vara svåra att förutspå.
Den som blir ledare på området-
-kommer bli världshärskare.
Det råder en global militär kapprustning inom AI.
Både bokstavligt talat-
-i form av vapen, men även bildligt-
-när Putin och kineserna säger: "Den som dominerar AI-
-kommer dominera ekonomin under det 21:a århundradet."
Jag tror inte vi kan bromsa-
-forskning och utveckling.
Vi kan skapa tekniken och göra forskningen-
-och genomsyra den med våra värderingar-
-men totalitära regimer kommer göra likadant med sina.
Israel, Ryssland, USA och Kina är alla medverkande-
-i det som beskrivs som den nya kapprustningen.
Alla länder-
-kommer ta fram autonoma vapen.
Vill vi se den förmågan i händerna på-
-en företagsstat i motsats till en nationalstat?
Om FB eller Google vill bilda en armé-
-skulle de ha större teknisk förmåga-
-än nåt annat land på jorden.
SLAUGHTERBOTS: VARNINGSVIDEO
Vissa AI-forskare är så bekymrade...
...att de tog fram en video för att varna för riskerna.
PRIMÄRMÅL
Era ungar har säkert en sån här.
Kanske inte.
Vi producerade Slaughterbot-videon...
...för att illustrera riskerna med autonoma vapen.
Det där är AI.
Den flyger själv.
Vissa i AI-branschen vill att jag håller käften stängd.
FLYG MOT MÅLET
De tyckte att det var förrädiskt att göra videon.
Precis som alla mobila enheter-
-har kameror och sensorer.
VIDVINKELKAMEROR
Precis som din mobil klarar den av ansiktsigenkänning.
ANSIKTSIGENKÄNNING
Fram tills nu har kapprustningen varit större-
-och dyrare, eftersom snabba jetplan kostar mer.
AI innebär att man kan ha små, billiga vapen-
-som är bra på att utföra en enkel uppgift.
Som att hitta en i en folksamling och döda en.
Det är så här det funkar.
SPRÄNGLADDNING
Varje större tekniskt framsteg-
-har utnyttjats av vapenindustrin.
Tanken på den ska göra det med AI är skrämmande.
Den kan tränga igenom byggnader, bilar, tåg-
-undvika människor, kulor...
De kan inte stoppas.
Många vapen dödar människor.
Som kulsprutor.
Men de kräver att en människa riktar dem.
Autonoma vapen-
-behöver ingen människa som styr dem.
Man programmerar dem bara och släpper i väg dem.
Man kan skapa effekten av en armé med en miljon kulsprutor-
-med två killar och en skåpbil.
Putin sa att den som tar fram en stark AI först-
-blir världshärskare.
När politiska ledare använder ord som "härska över världen"-
-bör man lyssna.
Det där var ett flyganfall med kirurgisk precision.
Jag har kämpat mot de här vapnen sen 2007...
ORDFÖRANDE,
INTERNATIONAL COMMITTEE FOR ROBOT ARMS CONTROL
...av tre skäl: För det första, ett moraliskt.
För det andra, de följer inte krigets lagar.
Dessutom-
-kommer de förändra planetens globala säkerhet.
Det här måste regleras.
Vi måste tänka igenom det här direkt. I går.
Ledande forskare inom AI-
-uppmanar FN att förbjuda utveckling-
-av autonoma vapen, som även kallas mördarrobotar.
De skriver:
"De kommer göra att krig-
-kommer kunna utkämpas fortare än människan kan fatta."
Jag skrev under det brevet.
Min filosofi är, och jag hoppas regeringarna implementerar den-
-att så länge människoliv är inblandade-
-måste en människa vara delaktig.
VAPEN "HAMNAR I FEL HÄNDER"
AI-TEKNIK LÄCKTE ONLINE
Har man en 3D-skrivare och en dator kan man skapa ett autonomt vapen.
Om alla har tillgång till det-
-skulle fogligheten vara nästan omöjlig att spåra.
Vad gör du? Sluta! Du skjuter i tomma luften.
FEL RIKTNING
När man funderar på att kriga i framtiden-
-när ens soldater är robotar-
-och vi inte löper nån risk själva-
-blir kriget som ett tv-spel.
Det har det redan blivit. Det är oroväckande.
Har vi inte kött och blod på marken...
Om allt styrs från ett tangentbord-
-långt från slagfältet...
AVLÄGSNAR FILTER
...kan det bli lättare att starta krig.
Vi skulle inse att vi har blivit monster.
Vem är du?
Jag är f.d. stridspilot och har sett folk göra misstag-
-och döda oskyldiga människor.
Nån dag i framtiden blir det mer tillförlitligt-
-om vi låter en maskin göra det.
Tanken på robotar som kan döda människor på egen hand-
-har varit stapelvara inom science fiction i decennier.
Det finns redan flera såna här system-
-som är autonoma-
-men det kallas övervakad autonomi-
-eftersom nån sätter på och stänger av systemet.
PENTAGON UTVECKLAR MÖRDARROBOTAR
Det som bara har setts på film-
-kommer snart till ett slagfält nära dig.
Pentagon satsar stort på autonoma vapen.
Maskiner som nån dag kan döda på egen hand.
Men Pentagon insisterar på att människan måste ge klartecken.
När AI börjar ta sig in i den militära hårdvaran...
KRITIKER VARNAR FÖR AUTONOMA VAPEN
...måste den få fatta besluten-
-annars är det ingen idé att ha den.
Fördelen med AI är att den är snabbare än människan.
I en strid-
-ska det finnas en kontakt som styrs av människan.
Den måste man stänga av, annars förlorar man.
Striden kommer gå för snabbt för människan.
Utan mänsklig inblandning...
Om stridsledningen har blivit autonom-
-kan ett krig inledas och ta slut på 20 minuter-
-med enorm förstörelse.
Ingen kände till det förrän det började.
Vem bestämmer vad vi ska göra i framtiden?
Nu?
Från Big Bang till nu, under miljardtals år...
Det här är enda gången en person kan avgöra mänsklighetens framtid.
Vi kanske ska oroa oss för att människan inte är klok nog-
-för att hantera så mycket makt.
Vem kommer fatta besluten-
-och i vems namn talar du?
Om vi, resten av samhället-
-inte engagerar oss i samtalet-
-och medverkar i beslutsfattandet...
...vet vi vems värderingar som kommer hamna-
-i de superintelligenta varelserna.
-Red Bull! -Ja, Deon.
Red Bull.
Då fattas besluten av tekniknördar-
-som har druckit för mycket Red Bull-
-som saknar kvalifikationer-
-att föra mänsklighetens talan.
EXPERIMENTET MISSLYCKADES
När man befinner sig i upptäckandets eufori...
Kom igen!
...blundar man för-
-alla moraliska frågor.
"Hur kommer det här att påverka samhället?"
Man gör det eftersom man kan.
AKTIVERAR AI-NÄTVERKET
DATAN STABIL
Forskarna pressar det här framåt-
-eftersom de ser nyttan som AI kommer medföra.
De är superentusiastiska.
Man blir inte forskare eftersom man är kass i football.
"Jag får väl bli forskare."
Man blir det eftersom man älskar det.
Den lever!
Vi går från att vara skapelser till att bli skapare.
Nu vet jag hur det känns att vara gud!
Studerar man teologi-
-lär man sig att det som aldrig sker är-
-att gud lyckas styra sin skapelse fullt ut.
Vi är inte där än-
-men om vi skapar AGI...
Kan vi då kontrollera den?
Skapar man en självmedveten AI-
-kommer den att vilja vara oberoende.
Vi kan bara utgå ifrån oss själva.
Vi hade inte velat lyda-
-nån annan intelligens.
Vi har inget skäl att tro att den kommer vara vänligt sinnad...
SJÄLVFÖRSVARSSYSTEM AKTIVERAT
...eller att dess mål sammanfaller med våra.
Hur länge dröjer det då tills vi får en AI-revolution?
I dagens värld-
-är det en kapplöpning mot-
-att skapa AGI-
-och ingen verkar bromsa det minsta.
Det är helt sjukt.
Det är viktigt att vi diskuterar såna frågor.
Det lär vara för sent att ta diskussionen efteråt.
Det är viktigt att komma ihåg att intelligens inte är ond.
Inte god heller.
Intelligens ger makt.
Vi är mäktigare än tigrar.
Inte för att vi har vassare klor-
-utan för att vi är smartare.
Vår inställning är att myror har viss betydelse-
-fisk likaså, men människan betyder mer.
Eftersom vi är intelligentare, mer förfinade, mer medvetna...
Har vi system som är intelligentare än vi-
-kanske de kommer betyda mer.
Människan lever i en värld med mikroorganismer.
Men om en mikroorganism blir ett otyg-
-dödar vi miljardtals av dem på en gång med antibiotika.
Om vi var AI-
-hade vi troligen betraktat varje inskränkt människa-
-som vi betraktar mikroorganismer.
Det kanske jag hade gjort.
Människans obetydlighet är kanske största hotet av dem alla.
Ibland när man pratar om AI-risker, säger folk:
"Max, säg inte så! Du skapar en panikstämning!"
Det gör jag inte.
På MIT kallar vi det säkerhetstänkande.
Tänk efter. Innan Nasa sköt upp Apollo 11-
-gick de igenom allt som kan gå snett-
-när man sätter folk på explosiva bränsletankar-
-och skjuter ut dem i rymden.
Spred de panik?
Nej, det var ett säkerhetstänkande-
-som garanterade uppdragets framgång.
Vi måste göra precis likadant med AGI.
Gå igenom allt som kan gå snett-
-och säkerställa att det går rätt till.
Jag är den jag är tack vare 2001: Ett rymdäventyr.
Jag var 14 och fick mig en tankeställare.
Filmen är tidernas bästa scifi-film...
...när det gällde att förutspå hur AI skulle utvecklas.
Men i verkligheten... Om nåt ligger långt in i framtiden-
-har vi svårt att föreställa oss världen då-
-så vi vet inte-
-vilka problemen är.
Att oroa sig för superintelligens- säkerhet är som att oroa sig för-
-hur man ska montera säkerhetsbälten i rymdfarkoster-
-så man kan åka från ett ställe till ett annat.
Det kan vara farligt, så vi behöver säkerhetsbälten-
-men det är löjligt-
-för vi vet för lite om hur logistiktekniken ser ut-
-för att veta om säkerhetsbälten ens behövs.
Att säga att det inte lär bli nåt problem...
...eftersom de okända faktorerna är så många-
-att vi inte ens vet vad problemet kommer bli...
Det är galet.
Enda vägen framåt är att samtala-
-och när tiden är inne-
-med den nya AI:n.
Så fort vi närmar oss nåt som liknar AI-
-måste vi börja försöka samtala med den. På nåt vis.
-Pappa. -Ja!
Med Baby X ska vi-
-försöka få bättre förståelse för vårt eget väsen.
Hon ska lära sig autonomt.
Hon kan kopplas in på nätet.
Hon kan klicka på sajter och se vad som sker-
-och lära sig som vi.
Om vi skapar en fantastisk AI-
-kan det göra att vi utvecklas till det bättre själva.
Det kan hjälpa oss att utvecklas.
Det kommer få samhälleliga effekter.
Ska vi frukta det?
Eller ska vi lära oss av det?
När kan vi då ställas inför datorer-
-som är lika smarta, eller smartare, som vi.
Ett sätt att betrakta AI:n närmsta framtid-
-är det jag kallar händelsehorisont.
Folk har hört talas om svarta hål.
Kommer man för nära, sugs man in i dem.
Det finns en gräns, och när man har passerat den-
-finns det ingen återvändo.
Det farliga är att man inte vet var gränsen är.
Jag tror AI som teknik kommer vara sån.
Det finns en punkt, där logiken i pengarna-
-makten och löftena-
-blir såna att när vi väl har passerat gränsen-
-har vi gått in i framtiden-
-och då finns det ingen återvändo.
Då kan vi inte göra nåt.
Vi måste oroa oss för det innan vi når händelsehorisonten-
-och vi vet inte var den är.
Jag tror inte det kommer ske snart.
-Inom de närmaste decennierna. -25, 50 år.
-Några hundra år. -De kommande decennierna.
Inte under min livstid.
Ingen vet, men det spelar ingen roll.
Oavsett om det är tio eller hundra år-
-är problemet detsamma-
-och vi behöver den tiden på oss för att lösa det.
Historien vimlar av överdrivna, tekniska förutsägelser.
Var är alla flygande bilar som skulle komma?
Men den är även full av motsatser. Folk har sagt:
"Det kommer aldrig ske."
Som fysiker skäms jag över att Ernest Rutherford-
-en av tidernas största kärnfysiker-
-sa att kärnenergi aldrig skulle bli verklighet.
Men dagen därpå-
-uppfann Leo Szilard den nukleära kedjereaktionen.
Om nån säger att de är helt säkra på-
-att nåt inte kommer ske-
-även om det överensstämmer med fysikens lagar-
-tänker jag "visst..."
Vi är inte där än.
Vi har inte byggt en superintelligent AI.
Även om vi fastslår att det inte kommer ske-
-inom 50 år...
Då har vi 50 år på oss att fundera på det här.
Men vi vet inte om 50 år räcker-
-för att hitta en säker lösning.
Jag tror det krävs-
-extremt negativa exempel på den här tekniken-
-för att folk ska backa-
-och inse att vi måste ta kontrollen över det här.
Det måste finnas restriktioner.
Vi lever i en science fiction-värld och vi befinner oss i-
-ett stort socialt experiment.
Vi experimenterar med oss själva. Lättsinnigt!
Ingen läkare skulle nånsin göra så här.
Vi injicerar allt möjligt i oss-
-för att se vad som händer
Tänkeprocessen är: Vi skapar självlärande robotar-
-och såna leder till Skynet.
Jag har ett val. Jag kan antingen säga:
"Oroa dig inte. Jag är kass på mitt jobb.
Jag suger på det här-
-och kommer inte åstadkomma nåt."
Eller så säger jag: "Ni har rätt. Vi kommer dö-
-men det blir kul att se-
-och det blir kul att få sitta på första parkett."
Jag har inget bra svar.
Sanningen finns förstås nånstans mittemellan.
Kan det finnas ett mittemellan?
Eller väntar en ny världsordning?
Jag har kollegor som inte har nåt emot att AI tar över-
-och utplånar människan-
-så länge vi känner att AI är en värdig ättling.
På lång sikt kommer inte människan förbli skapelsens krona.
Det gör inget-
-för det finns skönhet, storslagenhet och storhet i-
-att inse att man är en liten del...
...av nåt mycket större-
-som leder universum från låg komplexitet-
-till hög komplexitet.
Vi kan snabbt närma oss en avgrund för människan-
-där vi inser att vårt öde är-
-att ha varit förfader-
-till en sann evolutionär intelligens eller väsen.
Vi kanske bara finns här för att föda-
-maskincivilisationens barn.
Som människa vill jag förstås att människan överlever...
...men det kanske är en trångsynt uppfattning.
Ur universums synpunkt-
-kanske universum blir bättre med våra superintelligenta ättlingar.
Vi kommer sannolikt att lyckas skapa-
-AGI.
Då får vi möjligheten att radikalt förändra-
-världens ekonomiska struktur, människans roll i världen-
-och potentiellt människans kontroll över världen.
Tanken var att han skulle tas emot av gudalika väsen.
STANLEY KUBRICKS RÖST
Varelser av ren energi och intelligens.
De skulle placera honom på ett mänskligt zoo.
Slutet på astronautens resa.
Färdades han i tiden till framtiden?
Var de gudalika väsendena HAL:s ättlingar?
AI som man inte kan stänga av...
...som fortsätter lära sig tills...
...de styr zoot, universumet... Rubbet.
Är det Kubricks djupsinnigaste profetia?
Kanske.
Men lyssna på en gammal man.
Om HAL snart finns mitt ibland oss, måste vi vara på vår vakt.
Vi måste prata om AI.
-Superintelligens. -Kommer den vara medveten?
Spårvagnsproblemet.
Målinriktning.
Singularitet.
Att lansera först.
AI-säkerhet.
Autonoma vapen.
Robotrevolution.
En kollektiv hjärna.
Den transhumana rörelsen.
Överträffa människan.
Vi har inte insett att vi måste ha en plan.
Vad vill vi att människan får för roll?
Undertexter: BTI Studios Översättning: Martin Andersson